Die neue Gefahr im Internet: Was ist „KI-Schund“?

Es wird immer schwieriger zu bestimmen, ob in sozialen Medien kursierende Fotos echt sind oder von künstlicher Intelligenz erstellt wurden. So wurde beispielsweise das Foto eines kleinen Mädchens, das seinen Hund während einer Überschwemmung umarmt, von vielen Nutzern für echt gehalten.

Experten bezeichnen diese Art von Inhalten mittlerweile als „KI-Schund“. Dieser Begriff beschreibt Videos, Bilder, Audiodateien, Texte oder eine Kombination davon in niedriger bis mittlerer Qualität, die schnell und einfach von KI-Tools generiert werden.

Diese werden oft ohne Rücksicht auf Genauigkeit erstellt und der Zweck ihrer Verbreitung in den sozialen Medien besteht darin, mit der Aufmerksamkeitsökonomie des Internets Geld zu verdienen.

Dieser Prozess macht jedoch qualitativ hochwertigere und nützliche Inhalte tatsächlich unsichtbar.

VON YOUTUBE ZU SPOTIFY

Laut einer im Juli 2025 von The Guardian veröffentlichten Analyse veröffentlichen 9 der 100 am schnellsten wachsenden Kanäle auf YouTube KI-generierte Inhalte wie „Zombie-Football“-Videos oder „Katzen-Seifenopern“.

Auf Spotify tauchen frei erfundene Bands wie „The Velvet Sundown“ mit erfundenen Geschichten und gewöhnlichen Songs auf. Tatsächlich sind sie alle Produkte künstlicher Intelligenz.

Dasselbe passiert in der Literatur. Clarkesworld, ein Online-Science-Fiction-Magazin, das Beiträge von Nutzern entgegennimmt und Autoren bezahlt, musste die Einreichungsfrist 2024 einstellen, weil ein Großteil der eingereichten Manuskripte von künstlicher Intelligenz erstellt wurde.

Sogar Wikipedia leidet unter diesem Problem. Minderwertige KI-Inhalte belasten das ehrenamtliche Moderationssystem der Plattform. Werden diese Inhalte nicht gefiltert, ist eine vertrauenswürdige Informationsquelle, die auf Millionen von Menschen angewiesen ist, gefährdet.

IRREFÜHRENDE INHALTE

„KI-Schlamperei“ beschränkt sich nicht nur auf mindere Qualität, sondern führt auch zur Verbreitung irreführender Inhalte.

Beispielsweise teilten diejenigen, die das Krisenmanagement von Präsident Joe Biden während des Hurrikans Helen kritisierten, als Beweis ein KI-generiertes Bild eines Mädchens und eines Hundes.

Auch Künstler sind einer erheblichen Bedrohung ausgesetzt. Inhalte, die von echten Schöpfern erstellt wurden, werden von Algorithmen in einen Topf geworfen und gehen im Schatten der KI-Schlamperei verloren, was zu Arbeitsplatz- und Einkommensverlusten führt.

WAS KANN GETAN WERDEN?

Auf einigen Plattformen können Benutzer fragwürdige Inhalte kennzeichnen oder Community-Notizen hinzufügen, während schädliche Inhalte direkt gemeldet werden können.

Laura Hood, Autorin bei The Conversation, schrieb in einem Artikel zu diesem Thema: „Künstliche Intelligenz ist bereits mit vielen Bedrohungen in unser Leben eingedrungen, von gefälschten Konten bis hin zu Deepfake-Videos. Jetzt sind wir auf ein neues Konzept gestoßen, das das Internet in eine Müllhalde verwandelt.“

„Wenigstens haben wir jetzt einen klaren Namen, um diese Flut an minderwertigen Inhalten zu identifizieren.“